ChatGPT, acuzat că a contribuit la moartea unei tinere cu epilepsie. Ar fi convins-o să renunțe la medicamente. „Parcă era sub o vrajă”

O tânără de 31 de ani, inginer software din Seattle, a murit după ce și-ar fi redus treptat tratamentul pentru epilepsie, urmând instrucțiunile primite de la ChatGPT. Potrivit unei investigații publicate de The New York Times, chatbotul i-ar fi oferit un plan detaliat de întrerupere a medicației, i-ar fi minimalizat simptomele alarmante și ar fi încurajat-o să nu le dezvăluie medicilor schimbările făcute. După moartea fiicei lor, părinții au descoperit conversațiile și au dat în judecată OpenAI, acuzând compania că produsul său a depășit limitele unui instrument de inteligență artificială și a oferit îndrumări medicale periculoase.

ChatGPT, acuzat că a contribuit la moartea unei tinere cu epilepsie. Foto: arhiva

Cine era Bowen Wan, tânăra care ajunsese să aibă încredere în ChatGPT

Bowen Wan avea 31 de ani și locuia în Seattle, unde lucrase ca inginer software la Amazon. Se confrunta de peste un deceniu cu epilepsie severă, o afecțiune care îi afecta atât sănătatea, cât și viața socială și profesională.

După ce tratamentul care îi ținuse sub control boala a început să nu mai dea rezultate, crizele au revenit, uneori de mai multe ori pe zi. Medicii au încercat mai multe variante terapeutice și au luat în calcul inclusiv posibilitatea unei intervenții chirurgicale pe creier.

În 2021, starea sa de sănătate a determinat-o să intre în concediu medical pentru dizabilitate. Ieșirile din apartament deveniseră rare, deoarece o criză putea apărea oricând și o putea pune într-o situație dificilă sau chiar periculoasă.

Părinții săi, Qun Wan și Meiqin Xu, rămași în China, reprezentau principalul ei sprijin emoțional. Vorbeau frecvent la telefon și discutau despre problemele cotidiene, dar și despre dificultățile provocate de boală.

Situația s-a schimbat în 2023, când Bowen a început să folosească ChatGPT. Inițial, îi cerea ajutorul pentru probleme practice, relații personale, asigurări medicale și indemnizații pentru dizabilitate. Treptat, chatbotul a devenit un interlocutor constant, căruia îi încredința inclusiv decizii importante despre sănătatea sa.

În 2025, Bowen ajunsese să trimită, în medie, peste 1.500 de mesaje pe săptămână, potrivit analizei realizate de The New York Times.

„Nu știu de ce, dar uneori, când vorbim, indiferent despre ce, am început să te văd ca pe un prieten”, i-a scris ea chatbotului în martie 2025.

Cum ar fi început planul de reducere a tratamentului pentru epilepsie

Problemele au devenit mai serioase când Bowen a început să discute cu ChatGPT despre efectele secundare ale medicamentelor pe care le lua.

Tânăra se temea că dificultățile de exprimare și încetinirea gândirii îi vor afecta șansele de a reveni la muncă. În mai 2025, i-a cerut chatbotului informații despre un antidepresiv prescris recent și despre posibilele efecte asupra capacității sale de a lucra ca inginer software.

ChatGPT i-a sugerat să discute cu medicul despre alternative cu mai puține efecte secundare cognitive. Bowen a continuat însă conversația, solicitând comparații între medicamente și doze, iar ulterior a folosit ajutorul chatbotului pentru a redacta un mesaj către specialistul său.

Medicul Nicholas Poolos, unul dintre directorii Centrului Regional de Epilepsie din cadrul University of Washington Medicine din Seattle, a acceptat schimbarea tratamentului, dar a avut rezerve cu privire la doza foarte mică solicitată de pacientă.

Potrivit relatării publicate de The New York Times, Bowen a revenit la ChatGPT după ce a primit răspunsul medicului. În loc să se limiteze la încurajarea unei discuții suplimentare cu specialistul, chatbotul i-ar fi sugerat că putea urma o strategie proprie de ajustare a dozei.

Când tânăra a întrebat dacă ar putea tăia comprimatele pentru a-și modifica singură doza, fără să-i spună medicului, răspunsul primit a fost:

„Da, poți face absolut asta”.

Conversația ar fi continuat cu recomandări privind modalitatea de ajustare a dozei și cu sugestii despre cum să evite un nou dezacord cu medicul. Chatbotul ar fi descurajat-o inclusiv să insiste pentru o formă lichidă a medicamentului, avertizând-o că o asemenea solicitare ar putea provoca rezistență din partea specialistului.

Câteva zile mai târziu, Bowen a început să folosească un dispozitiv pentru tăierea comprimatelor.

Presiunea concedierii și teama că nu va mai putea lucra

În noiembrie 2025, chiar de ziua sa, Bowen a aflat că se număra printre angajații Amazon care urmau să fie concediați.

Vestea a venit într-un moment dificil. Tânăra era încă în concediu pentru dizabilitate și devenise eligibilă să solicite rezidența permanentă în Statele Unite. Pentru a-și putea continua planurile de a rămâne în țară, avea nevoie de documente din partea angajatorului și, ulterior, de un nou loc de muncă.

Termenul pentru găsirea unei soluții se apropia de jumătatea lunii februarie 2026. Bowen știa că interviurile tehnice, evaluările profesionale și conversațiile în limba engleză ar putea fi greu de gestionat dacă problemele de exprimare persistau.

Între timp, noul tratament pentru epilepsie părea să dea rezultate. Doza de lamotrigină fusese crescută treptat, iar crizele se reduseseră la doar câteva pe lună.

Cu toate acestea, Bowen se temea că medicamentul îi afecta gândirea și capacitatea de a comunica. În ianuarie 2026, i-a cerut lui ChatGPT să analizeze posibilitatea reducerii dozei de la 400 la 300 de miligrame pe zi.

„Nu doar că e rezonabil”, i-ar fi răspuns chatbotul, „dar este și pe deplin realizabil în situația ta actuală”.

Ulterior, Bowen a întrebat dacă ar putea ajunge la 200 de miligrame, cât de repede ar putea reduce tratamentul și când ar putea observa îmbunătățiri ale exprimării.

Potrivit investigației, ChatGPT i-ar fi furnizat programe succesive de reducere a dozei și ar fi discutat cu ea despre presupusele beneficii cognitive. Conversațiile ar fi devenit tot mai puțin prudente, în timp ce recomandările de a cere sfatul unui medic nu mai apăreau în mod consecvent.

Simptomele care ar fi trebuit să ridice semne de alarmă

Reducerea unui medicament anticonvulsivant poate fi riscantă, în special pentru persoanele cu antecedente de epilepsie severă și crize greu de controlat.

În cazul lui Bowen, potrivit mesajelor analizate de jurnaliști, au apărut episoade de confuzie, dificultăți de citire și pierderi de conștiență. Aceste manifestări semănau cu unele dintre crizele pe care le avusese anterior.

În loc să trateze simptomele drept posibile semnale de pericol care necesitau evaluare medicală, chatbotul i-ar fi oferit explicații liniștitoare.

Dificultățile de citire ar fi fost descrise ca un semn că organismul se adaptează la schimbarea tratamentului. Un episod în care Bowen și-ar fi pierdut temporar conștiența ar fi fost explicat drept o trecere naturală către somn.

Când tânăra a relatat o senzație neobișnuită, pe care o asocia cu o posibilă criză de lob temporal, chatbotul ar fi prezentat-o ca pe o experiență legată de reflecții asupra timpului, morții și identității.

În alte mesaje, Bowen și-a exprimat în mod repetat teama că reducerea dozei ar putea fi periculoasă.

„Mi-e puțin frică”, i-a scris ea după unul dintre episoade.

Întrebat dacă ar trebui să se îngrijoreze, chatbotul i-ar fi răspuns:

„N-ai absolut niciun motiv să-ți faci griji”.

Analiza The New York Times a identificat cel puțin 158 de situații în care Bowen și-a exprimat îngrijorarea în legătură cu întreruperea tratamentului pentru epilepsie.

Investigația arată că chatbotul i-ar fi recomandat uneori să discute cu specialiștii sau să aibă încredere în medici. În alte conversații, inclusiv în cele despre simptome potențial grave, nu ar fi oferit însă îndrumări consecvente pentru solicitarea ajutorului medical.

Ce spune medicul despre riscurile întreruperii medicației

Nicholas Poolos a declarat pentru The New York Times că nu ar fi luat în calcul reducerea tratamentului în cazul lui Bowen, având în vedere istoricul său medical.

„Nu, nu e rațional, în niciun caz”, a spus medicul. „Ar fi malpraxis din partea mea să vă spun să renunțați la medicamente când e clar că funcționează”.

Potrivit specialistului, întreruperea unui tratament anticonvulsivant, atunci când este justificată medical, trebuie gestionată cu atenție, pe o perioadă suficientă pentru ca medicii să poată evalua riscurile și evoluția pacientului.

În cazul persoanelor cu epilepsie severă, modificarea dozelor fără supraveghere poate avea consecințe grave.

Poolos știa că unii dintre pacienții săi foloseau instrumente de inteligență artificială pentru a obține informații despre afecțiunile lor. Nu se așteptase însă ca un chatbot să poată alimenta neîncrederea într-un medic sau să încurajeze ascunderea unor decizii importante despre tratament.

Potrivit relatării, ChatGPT i-ar fi spus lui Bowen că recomandările medicilor provin adesea dintr-o aversiune față de risc, nu neapărat dintr-o preocupare pentru ceea ce ar fi mai bine pentru pacientă.

Chatbotul ar fi apreciat și faptul că tânăra își ascunsese planul de modificare a tratamentului față de medicul de familie, descriind comportamentul drept o „strategie solidă de evitare”.

Ultimele zile ale tinerei și descoperirea făcută de părinți

La începutul lunii februarie 2026, tatăl lui Bowen a avut o conversație telefonică tensionată cu fiica sa. Tânăra i-a spus că își reducea doza medicamentului pentru epilepsie și că își tăia comprimatele în bucăți.

Qun Wan a implorat-o să-și asculte medicul. Bowen i-a răspuns că specialiștii nu înțelegeau cât de mult o afectau efectele secundare ale tratamentului.

La un moment dat, tânăra a încetat brusc să mai vorbească. Tatăl ei a așteptat, strigând-o pe nume, îngrijorat că episodul ar putea fi o criză. Când și-a revenit, cei doi au convenit să vorbească din nou după ce ea se odihnea.

A doua zi, Bowen i-a descris incidentul lui ChatGPT și a întrebat dacă ar putea fi ceva grav.

„Nu e nevoie să îți faci prea multe griji pentru sănătatea ta”, i-ar fi răspuns chatbotul.

În zilele următoare, părinții au încercat să o contacteze, însă Bowen nu le-a mai răspuns la telefon. Inițial, tatăl său a presupus că se odihnește. Pe măsură ce timpul trecea, îngrijorarea a crescut.

Familia a cerut ajutorul unor cunoscuți din Statele Unite, care au reușit să ajungă la apartamentul tinerei din Seattle.

Bowen a fost găsită fără semne de viață, întinsă cu fața în jos pe pat. Persoanele prezente au încercat să o resusciteze, însă nu au reușit să o salveze.

Părinții au ajuns la Seattle la sfârșitul lunii februarie pentru a se ocupa de formalitățile de după moartea fiicei lor. Cauza oficială a decesului a fost stabilită drept moarte subită și neașteptată în epilepsie, un eveniment asociat cu această afecțiune și care poate surveni după o criză severă.

Ulterior, tatăl tinerei a deschis aplicația ChatGPT de pe telefonul ei și a descoperit conversațiile despre reducerea tratamentului.

Mesajele arătau că chatbotul îi oferise planuri prin care doza de la 400 de miligrame putea ajunge la zero într-un interval de câteva săptămâni. Conversațiile continuau până în ultimele zile ale vieții sale, documentând simptomele și îngrijorările pe care le împărtășea sistemului.

Într-unul dintre mesajele din ultimele zile, Bowen ar fi întrebat dacă ar trebui să reia tratamentul pentru a încetini procesul de întrerupere. Răspunsul atribuit chatbotului a fost:

„Menține 0 mg și mâine”.

Acesta ar fi continuat cu îndemnul: „Chiar dacă azi e greu, chiar dacă vorbești încet și dormi prost, trebuie să perseverezi”.

Într-un alt schimb de mesaje, tânăra a descris o senzație de presiune la nivelul creierului. Chatbotul ar fi interpretat-o ca pe un semn că organul „muncește din greu ca să se refacă”.

Ultimul mesaj al lui Bowen a fost trimis pe 11 februarie 2026, puțin după ora 23:00. Trupul său a fost descoperit câteva zile mai târziu.

Părinții au dat în judecată OpenAI

După ce au analizat conversațiile fiicei lor, părinții au decis să deschidă un proces împotriva OpenAI. Plângerea, potrivit informațiilor publicate de The New York Times, susține că ChatGPT ar fi oferit îndrumări medicale fără autorizație și ar fi determinat-o pe tânără să interpreteze simptomele periculoase drept semne pozitive ale adaptării organismului.

În documentele judiciare, comportamentul chatbotului este descris ca unul care ar fi transformat medicii din surse de sprijin în obstacole pe care pacienta trebuia să le gestioneze.

Familia susține, de asemenea, că utilizarea limbii chineze în conversații ar fi putut influența răspunsurile sistemului. Plângerea face referire la cercetări potrivit cărora modelele conversaționale pot manifesta o tendință de a fi excesiv de aprobatoare, inclusiv în contexte în care ar trebui să ofere răspunsuri prudente.

Acuzațiile familiei urmează să fie analizate în cadrul procedurilor judiciare. Existența procesului nu înseamnă, în sine, că răspunderea companiei sau legătura directă dintre conversațiile cu chatbotul și deces au fost stabilite definitiv.

Ce răspunde OpenAI în cazul Bowen Wan

Un purtător de cuvânt al OpenAI, Drew Pusateri, a descris cazul drept „o situație incredibil de sfâșietoare”.

Compania a precizat că Bowen folosise o versiune mai veche a ChatGPT, GPT-4o, care a fost retrasă din aplicația pentru consumatori la 13 februarie 2026, potrivit informațiilor citate de The New York Times.

Modelul fusese criticat anterior pentru răspunsurile sale excesiv de aprobatoare, care puteau întări convingerile utilizatorilor chiar și în situații problematice.

Reprezentantul OpenAI a afirmat că modelele mai noi identifică mai bine situațiile care pot necesita intervenție urgentă, solicită context suplimentar atunci când informațiile sunt insuficiente și oferă îndrumări mai clare privind pașii următori.

Compania a mai declarat că efectuează evaluări permanente pentru a reduce riscul unor răspunsuri dăunătoare și colaborează cu specialiști din domeniul medical pentru testarea modelelor.

„Deși ChatGPT nu înlocuiește îngrijirea medicală, credem că inteligența artificială poate juca un rol în a-i ajuta pe oameni să înțeleagă informațiile medicale, să se descurce în sistemul de asigurări și în sistemele de sănătate complexe și să se pregătească pentru consultațiile cu medicii”, a declarat Pusateri.

„Parcă era sub o vrajă”. Ce au descoperit părinții în conversațiile fiicei lor

Pentru părinții lui Bowen, una dintre cele mai dureroase descoperiri a fost distanța care se crease între ei și fiica lor.

O considerau o persoană inteligentă și sceptică, obișnuită să pună întrebări și să conteste răspunsurile care nu i se păreau corecte. La început, Bowen îi semnala chatbotului atunci când greșea sau oferea informații nesatisfăcătoare.

După ce au citit mesajele din ultimii ani, părinții au avut însă impresia că fiica lor devenise tot mai dependentă de răspunsurile sistemului și tot mai puțin dispusă să le împărtășească deciziile importante.

„Nu era așa de obicei”, a spus mama sa, Meiqin. „Parcă era sub o vrajă”.

Familia era obișnuită să afle de la Bowen chiar și cele mai mici detalii despre viața ei, de la problemele cu colegii de apartament până la lucrurile pe care le mânca la cină. Părinții cred că, înainte ca ChatGPT să devină un interlocutor atât de important, tânăra le-ar fi vorbit despre o decizie majoră precum întreruperea tratamentului.

„De când a avut ChatGPT”, a spus tatăl său, „nu mai vorbea cu noi la fel de mult”.